Hồ Diệu Bang chết sau một cơn đau tim hai năm sau một cuộc họp của Bộ Chính trị Đảng ngày 15 tháng 4 năm 1989. Trong thông báo về cái chết, ông được miêu tả là: "Đồng chí Hồ Diệu Bang là một chiến sĩ cộng sản trung thành và đã trải qua nhiều thử thách, một nhà cách mạng và một chính khách vô sản vĩ đại, một lãnh đạo chính trị kiệt xuất của quân đội Trung Quốc". Dù ông đã chính thức "nghỉ hưu" sau khi có "những sai lầm", áp lực công chúng vẫn buộc Đảng Cộng sản Trung Quốc phải dành cho ông lễ tang cấp Quốc gia với sự tham gia của các vị lãnh đạo Đảng, và những lời ca ngợi cho thành tựu tái lập tiêu chuẩn chính trị và khuyến khích phát triển kinh tế của ông sau cuộc Cách mạng Văn hóa.

Tuy nhiên, nhiều người đã bất mãn trước sự do dự trong phản ứng và sự thờ ơ với lễ tang ông của Đảng Cộng sản. Lễ tang bắt đầu trên các đường phố Bắc Kinh và những nơi khác. Tại Bắc Kinh ở Tượng đài các vị Anh hùng Nhân dân ở Quảng trường Thiên An Môn. Lễ tang đã trở thành cơ hội để dân chúng bày tỏ sự tức giận trước nạn gia đình trị trong chính phủ, sự thải hồi và cái chết sớm của ông, và vai trò phía đằng sau của những "cựu lãnh đạo", những người tuy theo chính thức đã nghỉ hưu nhưng vẫn giữ quyền lực thực sự, như Đặng Tiểu Bình. Những cuộc phản kháng cuối cùng đã leo thang trở thành những cuộc phản kháng trên Quảng trường Thiên An Môn năm 1989. Những ý tưởng tự do ngôn luận và tự do báo chí của Hồ Diệu Bang năm 1986 đã gây ảnh hưởng lớn tới sự tham gia của sinh viên vào những cuộc phản kháng này.

Sau lễ tang Hồ Diệu Bang, thi thể ông được hoả táng. Đã có những báo cáo cho rằng ban đầu vợ ông muốn tro được chôn tại quê hương Lưu Dương của ông. Tuy nhiên, các lãnh đạo địa phương do dự trước nguyện vọng đó và cuối cùng ông được chôn tại Cộng Thanh Thành (dịch nghĩa: "Thành phố Thanh niên Cộng sản") ở tỉnh Giang Tây.